Trường ETH được thành lập vào năm 1854 bởi Liên bang Thụy Sĩ và mở cửa vào năm 1855 như là một viện đại học bách khoa (Eidgenössische Polytechnische Schule). Ban đầu nó chỉ bao gồm 6 phân khoa đại học: kiến trúc, kỹ thuật công chính, cơ khí, hóa học, lâm nghiệp, và một khoa còn lại cho tất cả các ngành toán học, khoa học tự nhiên, văn học, các môn khoa học chính trị xã hội.

Trường ETH là một viện liên bang (i.e., dưới sự quản lý trực tiếp của nhà nước Thụy Sĩ), trong khi Đại học Zurich là một viện cấp bang. Quyết định tạo ra một đại học liên bang mới đã gây ra nhiều tranh cãi vào thời gian đó, bởi vì những người tự do đã ủng hộ mạnh mẽ cho "đại học liên bang", trong khi những người bảo thủ muốn tất cả các trường đại học phải chịu sự quản lý của từng bang, để những người theo chủ nghĩa tự do không có chỗ đứng. Ban đầu, cả hai trường đại học này cùng nằm trong cùng các tòa nhà của Đại học Zurich.

Vào năm 1909, chương trình của ETH được tổ chức lại thành một đại học thật sựvà ETH được quyền đào tạo học vị tiến sĩ. Vào năm 1911, nó được đặt tên theo như hiện nay, Eidgenössische Technische Hochschule. Vào năm 1924, một đợt tổ chức lại đã phân trường thành 12 khoa khác nhau.

Từ năm 1993 trường ETH Zürich, trường EPFL, và bốn viện nghiên cứu liên quan khác được gộp lại đã được quản lý chung như là "ETH Bereich".